欧盟发布AI白皮书，从伦理监管入手谋求全球领导地位
欧盟提出，赢得人们对数字技术的信任是技术发展的关键。白皮书认为，这对欧洲来说是一个机会，不仅仅因为欧洲政治非常强调法治和价值观的保护，而且欧洲有能力提供从航空到能源、汽车和医疗设备等安全、可靠且复杂的产品和服务。欧洲当前和未来的可持续经济增长和社会福利越来越依赖于数据所创造的价值。人工智能是数字经济最重要的应用之一。现在，大多数数据都与消费者相关，并在中央云基础设施上进行存储和处理。相比之下，未来更为丰富的数据中，很大一部分将来自工业、商业和公共部门，并将存储在各种系统中，尤其是运行在网络边缘的计算设备上。这为欧洲带来了新的机遇，欧洲在数字化工业和企业对企业应用方面拥有强大的地位，但在消费者平台方面的地位相对较弱。
白皮书认为，计算技术的进步和数据的可用性是当前人工智能热潮的关键驱动因素。欧洲可以将其技术和产业优势与高质量的数字基础设施和基于其基本价值观的监管框架相结合，成为数据经济及其应用创新的全球领导者，这在《欧洲数据战略》(European Data Strategy) 也有提到。在此基础上，白皮书建议欧洲构建一个人工智能生态系统，助力整个欧洲社会和经济发展，比如：
• 使公民获得新的福利，例如改善医疗保健、减少家庭机械故障、更安全和更清洁的运输系统、更好的公共服务;
• 推动商务发展，例如在欧洲特别强大的领域（机械、运输、网络安全、农业、绿色和循环经济、医疗保健和时尚等高附加值行业的新一代产品和服务和旅游业）;
• 助力公益服务，例如降低提供服务（运输、教育、能源和废物管理）的成本，提高产品的可持续性，并为执法当局配备适当的工具确保公民的安全，以及提供适当的保障措施，尊重公民的权利和自由。
白皮书认为，欧洲的人工智能必须以欧洲的价值观和人类尊严及隐私保护等基本权利为基础，人工智能系统的影响不仅要从个人的角度来考虑，还要从整个社会的角度来考虑。使用人工智能系统可以在实现可持续发展目标、支持民主进程和社会权利方面发挥重要作用。欧洲最近提出了有关欧洲绿色协议的建议，在应对气候和环境相关挑战方面处于领先地位。像人工智能这样的数字技术是实现绿色协议目标的关键推动者。
鉴于人工智能的重要性日益增加，人工智能系统的环境影响需要在其整个生命周期和整个供应链中得到充分考虑，例如在算法培训和数据存储的资源使用方面。为了达到足够的规模，避免单一市场的分裂，欧洲有必要采取一种共同的人工智能方法。
在充分尊重欧盟公民的价值观和权利的情况下，白皮书提出了使人工智能在欧洲可靠和安全发展的政策选项。主要内容如下:
1、白皮书建立了政策框架，提出了在欧洲、国家和区域各级协调可采取的措施。在私营部门和公共部门的合作下，该框架的目标是调动资源，在整个价值链中实现"卓越生态系统" （ecosystem of excellence），目的是从研究和创新开始，并创造适当的激励机制，以加速采用针对包括中小型企业（ SMEs）在内的人工智能解决方案。
2、基于欧洲未来人工智能监管框架的关键要素，将创建独特的"信任生态系统"（ecosystem of trust）。为此，该系统必须确保遵守欧盟规则，在欧盟运行的高风险的人工智能系统保护消费者的基本权利。建立受信任生态系统本身就是一项政策目标，应该让公民有信心接受人工智能的应用，并给予公司和公共组织使用人工智能进行创新的法律确定性。欧盟委员会坚决支持以《有关在以人为本的人工智能技术上建立信任的通信》（the Communication on Building Trust in Human-Centric AI）文件精神作为基础，采取以人为本的办法，并将考虑吸纳使用高级别专家编写的《道德准则》试点阶段获得的意见，来完善这个系统。
欧盟提出了加大投资的具体目标。欧盟目前在人工智能创新研究上的资金投入已达到15亿欧元（相比前一个周期上升了70%），超过四分之一的产业与个人服务机器人在欧洲生产，但根据欧盟委员会，这个数字还远远不够。仅就数字基础设施和网络而言，欧盟每年就有650亿欧元的投资缺口。委员会预计，实施改革并加大对研发和技术部署的投资，到2030年可能会带来14%的GDP增量。目前，欧盟的战略目标是在下个十年里在人工智能上吸引超过200亿欧元的总投资金额。为了刺激私人和公共投资，欧盟将从“数字欧洲”(Digital Europe)计划、“地平线欧洲”(Horizon Europe)以及欧洲结构和投资基金(European Structural and investment Funds)中提供资源，满足欧洲欠发达地区和农村地区的需求。
面对中小企业和初创企业利用人工智能进行创新的融资需求，欧盟即将在2020年启动的1亿欧元对于人工智能和和区块链的投资基金的试点计划，并计划进一步扩大“欧盟投资”项目(InvestEU)的人工智能股权融资渠道。人工智能在InvestEU担保的可使用领域中被明确提及。
卓越生态系统（ecosystem of excellence）和信任生态系统 (An Ecosystem of Trust)：人工智能的监管框架两方面的主要内容如下。
卓越生态系统 （ecosystem of excellence）
· 和成员国一起合作
欧洲委员会于2018年4月通过了关于人工智能的战略，并于2018年12月提出了一项与成员国一起制定用以促进欧洲人工智能的发展和使用的协同计划。该计划提出了约70项联合行动，以便成员国与欧盟委员会在研究、投资、市场吸收、技能和人才、数据以及国际合作等关键领域开展更密切、更有效的合作。该计划预计运行到2027年，并定期进行监测和审查。其目的是最大限度地扩大投资对于研究、创新和部署方面的影响，评估国家人工智能战略，并在此基础上扩大与成员国的人工智能协调计划。欧盟委员会将根据白皮书的公众咨询结果，向成员国建议修订相关协调计划，该计划将于2020年底前通过。
· 聚焦研究投入和创新社群
欧洲没有一个人工智能研究中心达到与全球领先机构竞争所需的规模。因此白皮书认为，在多个欧洲人工智能研究中心之间创造更多的协同效应和网络非常重要，以此提高卓越性，留住和吸引最优秀的研究人员，开发最好的技术。欧洲需要一个集聚研究、创新和专业知识的“灯塔型”中心，并吸引该领域的投资和最优秀的人才，以成为人工智能领域的全球标杆。这些中心和网络应集中在欧洲领先的产业，如工业、卫生、运输、金融、农业食品价值链、能源/环境、林业、地球观测和空间。白皮书指出，在这些领域，争夺全球领导地位的竞赛正在进行，欧洲在此进程中有着巨大的潜力、并贡献相关专业知识。白皮书认为，创建支持新人工智能应用程序的开发和后续部署测试和试验站点也非常重要。
欧盟委员会将积极推进建立能够结合欧洲、国家和私人投资的测试中心，这其中可能包括一项新的法律文书。委员会还提出了一项专门用于支持欧洲数字欧洲计划(Digital Europe Programme)下的欧洲的世界参考检测中心(the World Reference Testing Centres in Europe)的资金数额，并在适当情况下,作为2021年至2027年多年度财务框架(the Multiannual Financial Framework for 2021 to 2027)的一部分纳入欧洲地平线（Horizon Europe）的研究和创新计划。
· 与私营机构建立伙伴关系
确保私营部门充分参与制定研究和创新议程，并提供必要的共同投资。在欧洲地平线创新计划的背景下,欧洲委员会将在人工智能领域设立一个新的公私伙伴关系,以数据和机器人技术为基础相结合的合作网络,努力确保在人工智能研究和创新有所突破。
· 推动公营机构采用人工智能
在公共行政、医院、公用事业和交通服务、金融监管机构和其他公共利益领域迅速开始部署人工智能的产品和服务。具体的重点将是医疗和交通领域，这些领域的技术已经成熟，可以大规模部署。
欧盟委员会将发起公开和透明的部门对话，优先考虑卫生保健、农村行政和公共服务运营商，以便提出促进发展、试验和采用的行动计划。该部门对话将被用于制定一个具体的“人工智能的采用方案”，该方案将支持人工智能系统的公共采购。
· 保护对数据和计算基础设施的访问
欧盟委员会已经提出了超过40亿欧元的数字欧洲计划，以支持高性能和量子计算，包括边缘计算和人工智能，数据和云基础设施。欧洲数据战略进一步发展了这些优先事项。改善对数据的访问和管理是根本，而尚待生成的海量新数据，将为欧洲提供了一个机会，使其置身于数据和人工智能转型的前沿。白皮书认为，促进负责任的数据管理实践和数据遵循公平原则将有助于建立信任和确保数据的可重用性，这对关键计算技术和基础设施的投资也同样重要。
· 国际方面
白皮书认为，在围绕共同价值观建立联盟、促进人工智能的道德使用方面，欧洲处于有利地位，能够发挥全球领导作用。欧盟在人工智能方面的工作已经影响了国际讨论。在制定其道德准则时，高级别专家组包括了一些非欧盟组织和一些政府观察员。与此同时，欧盟密切参与了经合组织人工智能道德原则的制定。随后，G20峰会在其2019年6月关于贸易和数字经济的部长级声明中也认可了这些原则。与此同时，欧盟认识到，在人工智能方面的重要工作正在其它多边机构展开，包括欧洲理事会(Council of Europe)、联合国教科文组织(UNESCO)、经济合作与发展组织(OECD)、世界贸易组织(WTO)和国际电信联盟(ITU)。在联合国，欧盟参与了数字合作高级别小组报告的后续工作，包括其关于人工智能的建议。
欧盟将继续在欧盟设定的人工智能领域相关规则和价值观的基础上，与志同道合的国家和全球利益相关机构合作(例如，支持向上的监管融合、获取包括数据在内的关键资源、创造一个公平的竞争环境)。委员会也将密切监测限制数据流动的第三国的政策，并将在双边贸易谈判中通过在世界贸易组织范围内的行动来解决不适当的限制。委员会确信，在人工智能问题上的国际合作必须建立在一种促进尊重基本权利的基础上，包括人的尊严、多元主义、包容、反歧视、隐私和个人数据的保护。同样重要的是，负责任的发展和使用人工智能，可以成为实现可持续发展目标和推进2030年议程的积极动力。
信任生态系统 (An Ecosystem of Trust)：人工智能的监管框架
欧盟成员国指出，目前缺乏一个欧洲人工智能的共同监管框架。德国数据伦理委员会(Data Ethics Commission)呼吁建立一个以风险为基础的5级监管体系，体系包括从对最无害的人工智能系统不加监管，到完全禁止对最危险的人工智能系统进行监管。丹麦刚刚推出了数据伦理印章(Data Ethics Seal)的原型。马耳他为人工智能引进了自愿认证系统。如果欧盟不能提供一个覆盖整个欧盟的解决方案，内部市场就会面临真正的分裂风险，这将造成信任危机、法律确定性和市场对于技术的接纳。
一个可靠的欧洲人工智能监管框架将保护所有欧洲公民，并帮助创建一个稳定的内部市场，以进一步发展和吸收人工智能，并加强欧洲在人工智能方面的工业基础。这将使欧洲企业能够顺利进入单一市场，并支持其在全球市场上的竞争力。
潜在问题
1. 基本权利面临的风险，包括个人数据和隐私保护以及歧视；
2. 安全风险和责任制度的有效运作。
1. 应用和执行现有的欧盟和国家立法
人工智能的不透明性使得识别和证明可能的违法行为变得困难，包括保护基本权利、归责和满足索赔条件的法律条款。因此，为了确保有效的实施和执行，可能有必要调整或澄清某些领域的现有立法。
2. 欧盟现行立法的范围限制
欧盟产品安全立法的一个重要焦点是产品的市场定位。而在欧盟产品安全立法中，当软件是最终产品的一部分时，必须遵守相关的产品安全规则，独立软件是否受欧盟产品安全法规的保护是一个公开的问题，在某些领域有明确的规定。欧盟现行的一般安全法规适用于产品而非服务，因此原则上也不适用基于人工智能技术的服务(如卫生服务、金融服务、交通服务)。
3. 改变人工智能系统的功能
将软件(包括人工智能)集成到产品中，可以在产品和系统的生命周期中修改它们的功能。对于需要频繁更新软件或依赖机器学习的系统尤其如此。这些特性会产生新的风险，而这些风险在系统投放市场时是不存在的。这些风险在现有的立法中没有得到充分的解决，现有的立法主要关注的是上市时存在的安全风险。
4. 供应链中不同经济运营者之间责任分配的不确定性
通常，欧盟产品安全立法将责任分配给市场上产品和所有组件的生产者，如人工智能系统。但如果人工智能是由非生产商的一方在产品投放市场后添加的，这些规定可能会变得不明确。此外，欧盟的产品责任立法规定了生产者的责任，却让国家负责管理供应链中其他人的责任。
5. 安全概念的变化
在产品和服务中使用人工智能可能会产生欧盟立法目前没有明确解决的风险。这些风险可能与网络威胁、个人安全风险(例如与智能新应用相关)、连接中断风险等有关。这些风险可能在产品投放市场时出现，或者在使用产品时由于软件更新或自我学习而出现。欧盟应充分利用其所掌握的工具，加强研究其对与人工智能应用相关的潜在风险的证据基础，包括利用欧盟网络安全机构(ENISA)评估人工智能潜在威胁的经验。
白皮书有两个重要的附件，《关于人工智能、物联网和机器人对安全和责任的影响的报告》和《欧洲数据战略》。
白皮书附件1：关于人工智能、物联网和机器人对安全和责任的影响的报告（Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics）
报告分析了人工智能、物联网和其他数字技术对相关安全和责任立法框架的影响。它体现了应用这一框架的不确定性，以及人工智能系统和其他数字技术带来的特定风险。结论是，当前的产品安全立法已经支持针对产品使用过程中产生的各种风险进行安全保护。可以通过适当的倡议，对产品责任指令和国家责任制度进行调整，采用更明确的、涵盖新兴数字技术带来的新风险的条款，以提供更多的法律确定性：
2. 对生产者的明确义务也可在适当时考虑到用户的心理上的安全风险(例如与类人机器人合作)；
3. 联合产品安全立法（Union Product Safety Legislation）可以规定在设计阶段解决错误数据的安全风险的具体要求，以及确保在整个人工智能产品和系统的使用过程中有良好的机制来保持数据质量；
4. 基于算法的系统的不透明性可以通过硬性透明性要求来解决；
5. 在一个独立的软件情况下，现有的规则可能需要修改和澄清因为它可能是下载到一个产品后，在市场上造成安全影响；
6. 鉴于供应链在新技术方面的复杂性日益增加，对于特别要求供应链经济运营者和用户之间进行合作的条款，可以为此问题提供法律确定性。
新兴数字技术(如人工智能、物联网和机器人)的特点可能会在某些方面挑战责任框架，并可能降低它们的有效性。例如可能会使造成的相关损害很难追溯到一个人身上。这可能大大增加受害者的损失，并意味着对生产者以外的其他人提出的赔偿责任要求可能难以提出或证明：
白皮书附件2：欧洲数据战略（A European Strategy for Data）
*该文件为欧洲委员会向欧洲议会、理事会、欧洲经济和社会委员会和各区域委员会的通信文件
欧洲数据战略目标使欧洲成为世界上最具吸引力、最安全、最具活力、数据最灵活的经济体——使欧洲能够利用数据改善决策，改善全体公民的生活。该战略提出了实现这一目标所需的一系列政策措施，包括动员私人和公共投资。
文件认为，欧盟可以在数据保护、基本权利、安全和网络安全等方面建立一个强有力的法律框架，并建立一个拥有各种规模和不同工业基础的有竞争力的公司的内部市场。如果欧盟想在数据经济中获得领先地位，它必须立即行动起来，一致地协调并解决从连接到数据处理和存储、计算能力和网络安全等一系列问题。此外，它还必须改进用于处理数据的治理结构，并增加可供使用和重用的高质量数据池。
该通信概述了一项政策措施和投资战略，以使未来五年的数字经济成为可能。在这一战略的基础上，欧盟委员会就可以采取哪些具体措施来保持欧盟在数据敏捷经济的前沿，同时尊重和促进作为欧洲社会基础的基本价值观展开全面磋商。
欧洲的这一数据战略将有助于其实现建立一个单一的数字市场的愿景，并在过去几年已经取得成就的基础上，解决通过政策措施和资金发现的相关问题。每项新的立法措施都将按照更好的监管原则来制定和评估。这些目前数据战略由四大支柱组成:
支柱一：数据存取和使用的跨行业治理框架
支柱二：赋能：在数据方面的投资，加强欧洲托管、处理和使用数据的能力和基础设施，以及各机构间互操作性（interoperability）等促进因素
支柱三：赋权：个人数据，技能投资(investing in skills)和中小企业
支柱四：战略性产业和公共利益领域(domains of public interest)共同的欧洲数据空间(common European data space)
上海市科学学研究所人工智能研究组和全球智库研究组整理。徐诺，上海市科学学研究所科技发展研究中心；王迎春，上海市科学学研究所科技与社会研究室主任。由于时间关系，部分内容还需跟进补充，恳请读者提出建议并继续关注。文章观点不代表本机构立场。